Tự vệ Đỏ được tuyển chọn từ những thanh niên ưu tú, trung thành, dũng cảm, giỏi võ, có tinh thần hăng hái, tháo vát, có sức khỏe tốt trong các tổ chức Công hội Đỏ, Nông hội Đỏ, Đoàn thanh niên Cộng sản, v.v. Họ được trang bị gậy gộc, tầm vông, giáo, mác, dao, búa, liềm... và được tổ chức thành các đội vũ trang để bảo vệ người dân đấu tranh đòi các quyền dân sinh, dân chủ và trong các cuộc biểu tình chống Pháp. Trong thời gian đầu họ chưa được trang bị súng đạn. Tự vệ Đỏ là tổ chức tiền thân của các đội vũ trang cộng sản Đông Dương trước Cách mạng tháng Tám 1945 như Đội Tự vệ Công nông, Đội Tự vệ Cứu quốc, Đội Danh dự Trừ gian, Đội Danh dự Việt Minh, Đội Tiễu trừ Việt gian, Đội Hộ lương Diệt ác v.v.

Để có lực lượng hỗ trợ cho đồng bào đấu tranh bảo vệ trật tự an ninh, các chi bộ Đảng Cộng sản Đông Dương đã bắt tay ngay việc xây dựng phát triển lực lượng tự vệ. Trên cơ sở những đội Tự vệ đã được thành lập trước đây.

Đến khi các Thôn bộ nông (chỉ chính quyền Xô viết) đảm nhận chức năng quản lý xã hội thì cần có lực lượng mạnh để làm công cụ kháng Pháp và trấn áp những người theo Pháp, thị uy, cảnh cáo những hào lý dựa hơi người Pháp, vì thế các địa phương đã phát triển mạnh đội Tự vệ. Trên cơ sở nhiệm vụ được trên giao, qua thử thách đấu tranh, những người tích cực, hăng hái trong thanh niên dưới 40 tuổi được lựa chọn vào đội Tự vệ. Các đội Tự vệ Đỏ đã được tổ chức rộng rãi, nội trong huyện Anh Sơn (tỉnh Nghệ An) đã có 27 đội với 664 đội viên.

Cấp ủy Đảng, Nông hội không những chăm lo phát triển đội viên mà còn chú trọng bồi dưỡng người chỉ huy, phụ trách tự vệ. Người đội trưởng là người giỏi võ nghệ, am hiểu cơ bản về quân sự, thường là những cựu binh Văn Thân, Cần Vương. Chương trình huấn luyện của đội Tự vệ Đỏ bao gồm các bài tập lăn, lê, bò, toài, võ cận chiến, nằm nấp tránh máy bay, luyện tập cách thức bảo vệ đoàn biểu tình v.v.

Địa điểm huấn luyện là các khe núi, lòi cháng bí mật. Cứ tối đến là Tự vệ Đỏ tập trung để luyện tập. Các làng Đa Thọ, Yên Phúc, Cẩm Vọng, Yên Lương (Nghệ An) đã có lò rèn để sắm giáo mác cho Tự vệ. Tự vệ làng Yên Phúc do ông Nguyễn Văn Uy làm đội trưởng, là đơn vị ra đời sớm hoạt động có nề nếp, là chỗ dựa quan trọng của quần chúng. Yên Phúc là một làng lớn, tại đây còn có đội nữ xích vệ do nữ tướng Nguyễn Thị Nhuyễn (còn gọi là chị Lài) chỉ huy.